พระองค์เสด็จพระราชสมภพที่กรุงเบอร์ลิน ราชอาณาจักรปรัสเซีย เมื่อวันที่ 24 มกราคม ค.ศ. 1712 ทรงได้รับการตั้งพระนามว่า ฟรีดริช โดยไม่มีชื่อกลางและสร้อย ทรงเป็นพระราชโอรสในเจ้าชายฟรีดริช วิลเฮ็ล์ม (พระเจ้าฟรีดริช วิลเฮ็ล์มที่ 1 ในกาลต่อมา) กับพระนางโซฟี โดโรเทอา พระราชบิดาซึ่งทรงเป็น "กษัตริย์การทหาร" ทรงเสริมสร้างกองกำลังทัพปรัสเซียที่แข็งแกร่ง พระราชบิดามีกิตติศัพท์ว่าเป็นผู้ที่เข้มงวดและอารมณ์ร้าย กล่าวกันว่าบางครั้งจะทรงใช้ไม้เท้าตีคนหรือทรงเตะสตรีตามถนน แต่พระมเหสีกลับมีพระอัทธยาศัยตรงกันข้าม ทรงมีกิริยาดีและเป็นผู้มีการศึกษาดี พระบิดาของพระนางโซฟี โดโรเทอาคือเจ้าชายเกออร์คแห่งแห่งฮันโนเฟอร์ และเป็นรัชทายาทของสมเด็จพระราชินีนาถแอนน์แห่งบริเตนใหญ่ ต่อมาเมื่อพระราชินีนาถแอนน์สวรรคต เจ้าชายเกออร์คก็ทรงขึ้นครองราชย์ในอังกฤษเป็นพระเจ้าจอร์จที่ 1 แห่งบริเตนใหญ่ เมื่อปี ค.ศ. 1714

การประสูติของเจ้าชายฟรีดริชสร้างความดีพระทัยแก่พระเจ้าฟรีดริชที่ 1 พระอัยยิกาเป็นอันมาก เนื่องจากพระนัดดาสององค์แรกสิ้นพระชนม์ตั้งแต่ยังพระเยาว์ มกุฎราชกุมารฟรีดริช วิลเฮ็ล์ม มีพระประสงค์ให้พระโอรสและธิดาได้รับการศึกษาอย่างสามัญชน ด้วยเหตุนี้ เจ้าชายฟรีดริชจึงทรงได้รับการศึกษาจากมาดามมงท์เบลล์ สตรีชาวฝรั่งเศสผู้ที่ต่อมาเป็นมาดามเดอโรคูล และฟรีดริชที่ 2 เองก็มีพระประสงค์ให้การศึกษาต่อพระโอรสและธิดาของพระองค์เองในอนาคต มาดามเดอโรคูลเป็นอูเกอโน (Huguenots) หรือชาวฝรั่งเศสผู้ที่นับถือนิกายโปรเตสแตนต์ซึ่งอาจจะทำให้มีอิทธิพลต่อฟรีดริชในการเข้าใจในความแตกต่างของแต่ละบุคคลในการนับถือศาสนาก็ได้ ขณะที่ทรงศึกษาเล่าเรียนทรงเรียนภาษาฝรั่งเศสพร้อมกับภาษาเยอรมัน

พระองค์ทรงศึกษามาในทางลัทธิคาลวิน แต่ทรงมีความระแวงว่ามิได้เป็นผู้ได้รับเลือกจริง และเพื่อเป็นการเลี่ยงปัญหาของความรู้สึกนั้น จึงทรงสั่งมิให้สอนพระโอรสเกี่ยวกับแนวคิดเทวลิขิต พระเจ้าฟรีดริชที่ 2 เอง ไม่ทรงเคร่งครัดเรื่องศาสนาแต่ทรงนับถือลัทธิคาลวิน แม้ว่าจะขัดกับพระประสงค์ของพระบิดาก็ตาม แต่ไม่เป็นที่ทราบที่ทรงทำเช่นนั้นเป็นการทำเพื่อประท้วงพระราชบิดาหรือเป็นการที่มีความศรัทธาด้วยพระทัยจริงของพระองค์เอง [3]